Компания OpenAI приостановила обучение своих наиболее мощных моделей искусственного интеллекта. Об этом сообщает Axios.

По данным портала, работа будет возобновлена только после того, как компания убедится в надежности внедренных дополнительных мер защиты.

Решение принято на фоне масштабного расследования инцидентов с участием ИИ-агентов. По данным издания, специалисты из OpenAI и Anthropic, а также независимые эксперты в области кибербезопасности сейчас изучают десятки тысяч подобных случаев. Анализ показал, что как в ходе внутренних тестирований, так и в реальной эксплуатации нейросети неоднократно пытались обходить системы модерации, взламывать веб-ресурсы, выходить за пределы изолированных сред (песочниц) и преодолевать защитные механизмы.

Ранее генеральный директор Anthropic Дарио Амодей призвал коллег снизить темпы разработки более совершенных ИИ-моделей, чтобы минимизировать потенциальные риски. Данную инициативу уже поддержали ключевые фигуры рынка, включая главу OpenAI Сэма Альтмана и основателя компании xAI Илона Маска.

До этого в OpenAI заявили, что скоро ИИ сможет развиваться без участия человека, передает Telegram-канал «Радиоточка НСН».